AI, deepfakes и дезинформация в изборите в Индия
През ноември предходната година, Muralikrishnan Chinnadurai гледаше предаване онлайн на събитие на тамилски език в Обединеното кралство, когато видя нещо необичайно. Жена, показана като Duwaraka, щерка на Velupillai Прабхакаран, пълководец на бойците на Тамилските тигри, изнасяше тирада. Проблемът беше, че Дуварака бе умрял преди повече от десетилетие при въздушен удар през 2009 година последните дни на гражданската война в Шри Ланка. Тялото на тогавашния 23-годишен юноша по този начин и не е намерено. И в този момент, ето я - видимо жена на междинна възраст - увещавайки тамилийците по целия свят да продължат политическата битка за своята независимост. Г-н Чинадурай, проверяващ обстоятелствата в южния индийски щат Тамил Наду, изгледа видеото деликатно, видя пропуски във видеото и скоро го дефинира като цифра, генерирана от изкуствен интелект (AI). Потенциалните проблеми незабавно станаха ясни на господин Чинадурай: „ Това е прочувствен проблем в щата [Тамил Наду] и с изборите зад ъгъла, дезинформацията може бързо да се популяризира. " Докато Индия отива на избори, е невероятно да се избегне изобилието от генерирано от AI наличие се основават - от видеоклипове за акцията до персонализирани аудио известия на редица индийски езици и даже автоматизирани позвънявания до гласоподаватели с гласа на претендента. Създателите на наличие като Шахид Шейх даже се забавляваха, употребявайки принадлежности за изкуствен интелект, с цел да покажат индийските политици в аватари, в които не сме ги виждали до момента: облечени в свободното време, пускайки музика и танци. Но защото инструментите стават все по-сложни, специалистите се тревожат за последствията от тях, когато става въпрос за превръщането на подправените вести в същински. " Слуховете постоянно са били част от предизборната акция. [Но] в ерата на обществените медии те могат да се разпространят като горски пожар ", споделя SY Qureshi, някогашен основен изборен комисар на страната. " Всъщност може да подпали страната. " Индийските политически партии не са първите в света, които се възползват от последните разработки в ИИ. Точно над границата в Пакистан това разреши на затворения политик Имран Хан да приказва на протест. А в самата Индия министър председателят Нарендра Моди също към този момент направи най-хубавото на нововъзникващата технология за ефикасна акция – обръщайки се към публика на хинди, който благодарение на основания от държавното управление AI инструмент Bhashini по-късно беше преведен на тамилски в действително време. Но може да се употребява и за манипулиране на думи и известия. Миналия месец два вирусни видеоклипа демонстрираха боливудските звезди Ранвир Сингх и Аамир Хан да водят акция за опозиционната Конгресна партия. И двамата подадоха тъжби в полицията, заявявайки, че това са дълбоки имитации, направени без тяхното единодушие. След това, на 29 април, министър-председателят Моди изрази угриженост по отношение на потреблението на AI за деформиране на речи от висши водачи на ръководещата партия, в това число него. На идващия ден полицията арестува двама души, по един от опозиционната партия Aam Aadmi (AAP) и Конгреса партия, по отношение на фалшифициран видеоклип на министъра на вътрешните работи Амит Шах. Партията Bharatiya Janata (BJP) на господин Моди също е изправена пред сходни обвинявания от опозиционни водачи в страната. Проблемът е, че макар арестите няма изчерпателна регулация, съгласно специалисти. Което значи, че " в случай че ви заловен да вършиме нещо неправилно, в най-хубавия случай може да има пестник по китката ви ", съгласно Сринивас Кодали, откривател на данни и сигурност. При липса на регулация основателите споделиха на BBC, че би трябвало да разчитат на персоналната нравственос, с цел да решат какъв тип работа избират да правят или да не правят. BBC научи, че измежду настояванията на политиците са били нецензурен изображения и превръщане на видеоклипове и аудиозаписи на техните противници, с цел да навредят на репутацията им. „ Веднъж ме помолиха да направя оригинал да наподобява като deepfake, тъй като истинското видео, в случай че бъде споделено необятно, би предиздвикало политиката да наподобява зле “, разкрива Divyendra Singh Jadoun. " Така че екипът му искаше да основа deepfake, който те да показват за оригинал. " Г-н Jadoun, създател на The Indian Deepfaker (TID), който сътвори принадлежности, с цел да помогне на хората да употребяват програмен продукт с AI с отворен код за основаване на предизборни материали за индийски политици, упорства да слага отвод от отговорност върху всичко, което прави, тъй че да е ясно, че не е действително. Но към момента е мъчно да се управлява. Г-н Шейх, който работи с маркетингова организация в източния щат Западен Бенгал е видял работата му да се споделя без позволение или заем от политици или политически страници в обществените медии. " Един политик употребява изображение, което аз основан от господин Моди без подтекст и без да се загатва, че е основан благодарение на AI “, споделя той. И в този момент е толкоз елементарно да се сътвори deepfake, че всеки може да направи то. " Това, което преди ни отнемаше седем или осем дни, с цел да създадем, в този момент може да бъде направено за три минути ", изяснява господин Jadoun. „ Трябва единствено да имате компютър. “ Наистина, BBC получи взор от първа ръка какъв брой елементарно е да се сътвори подправен телефонен диалог сред двама души – в този случай аз и някогашният президент на Съединени американски щати. Въпреки рисковете, Индия в началото сподели, че не обмисля закон за AI. Този март обаче се задейства след възторг към отговора на чатбота Gemini на Гугъл на питане: „ Моди фашист ли е? “ Rajeev Chandrasekhar, младши министър на осведомителните технологии на страната, сподели, че е нарушил ИТ законите на страната. Оттогава индийското държавно управление изиска от софтуерните компании да получат експлицитното му позволение, преди да започват обществено „ ненадеждни “ или „ незадоволително тествани “ генеративни AI модели или принадлежности. Той също по този начин предизвести против отговорите на тези принадлежности, които „ заплашват целостта на изборния развой “. Но това не е задоволително: проверяващите обстоятелства споделят, че би трябвало да се поддържа развенчаването на сходно наличие е сложна задача, изключително по време на избори, когато дезинформацията доближи своя връх. " Информацията се популяризира със скорост от 100 км в час ", споделя господин Чинадурай, който управлява медиен наблюдаващ в Тамил Наду. „ Развенчаната информация, която разпространяваме, ще се движи с 20 км в час. И тези имитации даже си проправят път в главните медии, споделя господин Кодали. Въпреки това „ изборната комисия обществено мълчи по отношение на ИИ “. „ Като цяло няма правила “, споделя господин Кодали. „ Те оставят софтуерната промишленост да се саморегулира, вместо да измислят действителни регулации. “ Няма безпогрешно решение, споделят специалистите. " Но [засега] в случай че се подхващат дейности против хората, препращащи имитации, това може да изплаши другите да не споделят непроверена информация ", споделя господин Куреши. Наистина огромни избори с близо милиард гласоподаватели „ Невидими в личната ни страна “: Да бъдеш мохамеданин в Индия на Моди Икономиката на Индия: Доброто, неприятното и грозното в шест ранглисти Очуканата Индия опозицията се изправя против Моди Защо изборите в Индия имат значение за света
